Blog - LINE ENGINEERING

TAG ARCHIVES: Trustworthy AI

【インターンレポート】ドキュメント画像に対する加工検知モデルのための学習データ生成
Rintaro Hasegawa2023-05-10
Trustworthy AIチーム
はじめに 2022年9月から6週間の就業型インターンに参加しました、慶應義塾大学大学院修士1年の長谷川麟太郎です。今回のインターンではTrustworthy AIチームに配属され、ドキュメント画像に対する加工検知モデルの研究・開発に取り組みました。ここでは、インターンシップ中での自分の取り組みとその成果について報告します。テーマ背景近年、深層学習モデルを用いた画像加工技術についての研究が多くなされており、例えば、顔画像を加工することが可能なDeepfakeでは、精巧な顔画像の合成などが加工になります。一方、Deepfakeによる政治家や芸能人の成りすましという問題も起きています。以下の右側の画像は、Deepfakeによって生成された画像ですが、左側の本物の画像と見分けをつけることはかなり困難です。こういった問題対処するために「顔画像が本物かDeepfakeによって作られた偽物か」を見抜くようなモデルについても盛んに研究されています。引用：https://spectrum.ieee.org/ai-creates-fake-obama このような画像の加工は顔画像だけではな
- line-intern-ja
- Trustworthy AI
CSS2022参加報告
Koki Wataoka/Takao Takenouchi2022-11-25
Trustworthy AIチームリサーチエンジニア(Wataoka), ML Privacyチームシニアプライバシーエバンジェリスト (Takenouchi)
AI開発室 Trustworthy AIチームの綿岡と、Data Scienceセンター ML Privacyチームの竹之内です。10月にコンピュータセキュリティシンポジウム2022（CSS2022）にて発表しましたので、その模様を報告します。綿岡からは言語モデルの倫理的問題点を効率的に検査する手法「Iterative Few-shot」に関する論文を発表し、CSS奨励賞を受賞したことを報告します。ML Privacyチームからは、竹之内が企画セッションに登壇した他、髙橋や前田が座長や運営なども目的に参加しました。本ブログでは、主に発表論文や企画セッションの内容を中心に、シンポジウムの様子を報告します。 CSS2022についてコンピュータセキュリティシンポジウム(CSS)は、セキュリティ分野の2大国内シンポジウムの一つであり、情報処理学会コンピュータセキュリティ研究会の主催で毎年行われています。今年のCSS2022は、2022年10月24日から4日間の日程で、熊本とオンラインとのハイブリッド形式で開催されました。会場は2016年の熊本地震から復旧を進めている熊本城を臨む熊本城ホー
【インターンレポート】言語モデルにおける公平性の評価技術の開発
Miyu Oba2022-10-17
Trustworthy AIチーム
はじめに奈良先端科学技術大学院大学修士1年の大羽未悠です。2022年夏に6週間の就業型インターンシップに参加しました。Trustworthy AIチームにて、言語モデルにおける公平性の評価技術の開発を行いました。本記事では、取り組んだ作業内容について報告させていただきます。 Trustworthy AI チームとは Trustworthy AI チームとは、2021年6月に発足した AI の信頼性に関する研究開発に取り組むチームです。 AI 特有のリスクの探索評価技術や、 AI の信頼性を担保する技術の研究開発を行なっています。主に大規模言語モデルや画像分類器を対象に、「ひとにやさしい AI 」の実現を目指しています。私は大学で自然言語処理の研究に従事していることもあり、今回のインターンシップでは日本語の大規模言語モデルに焦点を当てました。背景言語モデルとは、単語列に対する尤もらしさを計算するモデルです。任意の入力単語列に対して尤もらしい単語列を出力できることから、チャットボットなど様々なタスクに応用することができます。しかし、言語モデルは人間が作成したコーパスを使用して学習
文章有害性評価コンペティションへの挑戦
Koki Wataoka2022-03-25
Trustworthy AIチームで言語モデルの信頼性検証技術の開発に取り組んでいます。
AI開発室のTrustworthy AIチームに所属している綿岡です。普段の業務は言語モデルの信頼性向上のための技術開発で、特に有害文検知に関する技術開発に注力しています。昨今の言語モデルの急速な発展に伴い、有害文検知の技術も急成長しており、Perspective API（有害文を検知するAPI）を提供するJigsawは有害文検知コンペティションを2018年から毎年開催しています。一方、我々Trustworthy AIチームは、日本語での有害文検知モデルの構築は今後最重要課題となるだろうと常々考えてきました。そのことから有害文検知の最先端に挑戦するとともに知見を深めることを目的として、2021年11月からKaggleで開催された「Jigsaw Rate Severity of Toxic Comments」にTrustworthy AIチームから綿岡が参加することにしました。最終結果を先に記載しておきますと、2,301チーム中147位で銅メダルを獲得しました。このブログでは、本コンペの概要及び出場にあたって取り組んだ内容について報告します。ルール本コンペの目的本コンペの目的は「
- Trustworthy AI
- LINE R&D

1